Image super-resolution is a common task on mobile and IoT devices, where one often needs to upscale and enhance low-resolution images and video frames. While numerous solutions have been proposed for this problem in the past, they are usually not compatible with low-power mobile NPUs having many computational and memory constraints. In this Mobile AI challenge, we address this problem and propose the participants to design an efficient quantized image super-resolution solution that can demonstrate a real-time performance on mobile NPUs. The participants were provided with the DIV2K dataset and trained INT8 models to do a high-quality 3X image upscaling. The runtime of all models was evaluated on the Synaptics VS680 Smart Home board with a dedicated edge NPU capable of accelerating quantized neural networks. All proposed solutions are fully compatible with the above NPU, demonstrating an up to 60 FPS rate when reconstructing Full HD resolution images. A detailed description of all models developed in the challenge is provided in this paper.
translated by 谷歌翻译
联合学习（FL）已成为解决数据筒仓问题的实用解决方案，而不会损害用户隐私。它的一种变体垂直联合学习（VFL）最近引起了人们的关注，因为VFL与企业对利用更有价值的功能的需求相匹配，以构建更好的机器学习模型，同时保留用户隐私。当前在VFL中的工作集中于为特定VFL算法开发特定的保护或攻击机制。在这项工作中，我们提出了一个评估框架，该框架提出了隐私 - 私人评估问题。然后，我们将此框架作为指南，以全面评估针对三种广泛依据的VFL算法的大多数最先进的隐私攻击的广泛保护机制。这些评估可以帮助FL从业人员在特定要求下选择适当的保护机制。我们的评估结果表明：模型反转和大多数标签推理攻击可能会因现有保护机制而挫败；很难防止模型完成（MC）攻击，这需要更高级的MC靶向保护机制。根据我们的评估结果，我们为提高VFL系统的隐私保护能力提供具体建议。
translated by 谷歌翻译
深度神经网络（DNNS）在各个领域都取得了出色的性能。但是，DNNS对对抗性示例（AE）的脆弱性阻碍了他们的部署到关键的安全应用程序。本文提出了一个新颖的AE检测框架，以值得信赖的预测为止。除了通过区分AE的异常关系与其增强版本（即邻居）与两个前景：表示相似性和标签一致性来区分检测。与监督的学习模型相比，使用现成的自我监督学习（SSL）模型用于提取表示形式，并预测其高度信息代表能力的标签。对于干净的样本，它们的表示和预测与邻居密切一致，而AE的邻居差异很大。此外，我们解释了这一观察结果，并表明，通过利用这种差异可以有效地检测到AE。我们为超越的有效性建立了严格的理由。此外，作为一种插件模型，超越的范围可以轻松与受过对抗训练的分类器（ATC）合作，从而实现最先进的（SOTA）鲁棒性精度。实验结果表明，超越表现的基线较大，尤其是在自适应攻击下。在SSL上建立的强大关系网络的授权下，我们发现超出了检测能力和速度方面优于基准。我们的代码将公开可用。
translated by 谷歌翻译
联合学习（FL）使独立方能够在保护数据隐私的同时协作建立机器学习（ML）模型。 FL的变体垂直联合学习（VFL）最近引起了人们的注意，因为VFL与企业对利用更有价值的功能的需求相匹配，以实现更好的模型性能而不会损害数据隐私。但是，传统的VFL可能会陷入数据缺陷，因为它只能用标签来利用标签的对准样品（属于不同的各方），而通常将大多数未对齐和未标记的样品均未使用。数据缺乏阻碍了联邦的努力。在这项工作中，我们提出了一个联合的混合自我监督的学习框架，即Fedhssl，以利用参与者的所有可用数据（包括未对准和未标记的样本）来培训联合VFL模型。 FEDHSSL的核心思想是利用各方之间对齐的样本的跨党派观点（即分散特征）和各方的本地观点（即增强）来提高通过SSL（SSL）的表示能力（例如，simsiam）。 FEDHSSL进一步利用各方共享的通用特征，以通过部分模型聚合来提高联合模型的性能。我们从经验上证明，与基线方法相比，我们的FEDHSSL实现了显着的性能增长，尤其是当标记样品数量较小时。我们对FedHSSL提供有关隐私泄漏的深入分析，这在现有的自我监督的VFL作品中很少讨论。我们研究了FEDHSSL的保护机制。结果表明，我们的保护可以阻止最先进的标签推理攻击。
translated by 谷歌翻译
通道修剪被广泛用于降低深网模型的复杂性。最近的修剪方法通常通过提出通道重要性标准来识别网络的哪些部分。但是，最近的研究表明，这些标准在所有情况下都不能很好地工作。在本文中，我们提出了一种新颖的功能最小化方法（FSM）方法来压缩CNN模型，该模型通过收敛功能和过滤器的信息来评估特征转移。具体而言，我们首先使用不同层深度的一些普遍方法研究压缩效率，然后提出特征转移概念。然后，我们引入了一种近似方法来估计特征移位的幅度，因为很难直接计算它。此外，我们提出了一种分布优化算法，以补偿准确性损失并提高网络压缩效率。该方法在各种基准网络和数据集上产生最先进的性能，并通过广泛的实验验证。这些代码可以在\ url {https://github.com/lscgx/fsm}上可用。
translated by 谷歌翻译
人类的行动识别是一个非常受过大量研究的领域，在该领域中，最引人注目的动作识别网络通常使用日常人类行动的大规模粗粒度动作数据集作为陈述其网络优势的输入。我们打算使用神经网络识别我们的小规模细粒Tai Chi动作数据集，并使用NTU RGB+D数据集提出一种转移学习方法，以预先培训我们的网络。更具体地说，提出的方法首先使用大规模的NTU RGB+D数据集来预先培训基于变压器的网络以进行动作识别，以在人类运动中提取共同的特征。然后，我们冻结除完全连接（FC）层以外的网络权重，并将我们的Tai Chi动作作为输入，仅用于训练初始化的FC权重。实验结果表明，我们的通用模型管道可以达到高度精细的Tai Chi Action识别的高精度，甚至很少输入，并证明我们的方法与先前的Tai Chi Action识别相比实现了最先进的性能方法。
translated by 谷歌翻译
冻结预训练的主链已成为标准范式，以避免在几次分段中过度拟合。在本文中，我们重新考虑范式并探索一个新的制度：{\ em对骨干中的一小部分参数}进行微调。我们提出了一种解决过度拟合问题的解决方案，从而使学习新颖班级的模型概括更好。我们的方法通过奇异值分解（SVD）将主链参数分解为三个连续的矩阵，然后{\ em仅微调单数值}并保持其他冻结。上面的设计使模型可以在新颖类中调整特征表示，同时在预先训练的主链中保持语义线索。我们在具有不同骨架的各种几种射击分割方法上评估了{\ em单数值微调（SVF）}方法。我们在Pascal-5 $^i $和Coco-20 $^i $上都获得了最先进的结果。希望这个简单的基准将鼓励研究人员重新考虑骨干微调在几次环境中的作用。源代码和模型将在\ url {https://github.com/syp2ysy/svf}上获得。
translated by 谷歌翻译
非负矩阵分解（NMF）已广泛用于降低机器学习的尺寸。但是，传统的NMF无法正确处理异常值，因此对噪声敏感。为了提高NMF的鲁棒性，本文提出了一种自适应加权NMF，它引入了权重，以强调每个数据点的不同重要性，因此降低了对噪声数据的算法敏感性。它与使用缓慢生长相似性度量的现有强大NMF大不相同。具体而言，提出了两种实现这一目标的策略：模糊加权技术和熵加权技术，两者都导致具有简单形式的迭代解决方案。实验结果表明，新方法在具有噪声的几个真实数据集上具有更健壮的特征表示，而不是进行噪声。
translated by 谷歌翻译
近年来，异构图形神经网络（HGNNS）一直在开花，但每个工作所使用的独特数据处理和评估设置会让他们的进步完全了解。在这项工作中，我们通过使用其官方代码，数据集，设置和超参数来展示12个最近的HGNN的系统再现，揭示了关于HGNN的进展的令人惊讶的结果。我们发现，由于设置不当，简单的均匀GNN，例如GCN和GAT在很大程度上低估了。具有适当输入的GAT通常可以匹配或优于各种场景的所有现有HGNN。为了促进稳健和可重复的HGNN研究，我们构建异构图形基准（HGB），由具有三个任务的11个不同数据集组成。 HGB标准化异构图数据分割，特征处理和性能评估的过程。最后，我们介绍了一个简单但非常强大的基线简单 - HGN - 这显着优于HGB上以前的所有模型 - 以加速未来HGNN的进步。
translated by 谷歌翻译
面向任务导向的对话系统已经受到获得大规模和高质量的注释对话的困难困扰。此外，大多数公开的数据集仅包括书面对话，这不足以反映实际口头对话系统中的实际人类行为。在本文中，我们提出了面向任务的对话数据增强（TOD-DA），这是一种新型模型 - 不可知的数据增强范例，以提高面向任务对话建模的鲁棒性。 TOD-DA由两个模块组成：1）对话丰富，以扩展关于易于执行数据稀疏性的任务对话的培训数据，用于宽松数据稀疏性和2）口语对话模拟器，以模仿各种粒度的口语样式表达和语音识别错误，以弥合书面之间的差距和口头对话。通过这样的设计，我们的方法在DSTC10 Track2的两个任务中排名第一，这是针对口语对话的任务对话建模的基准，展示了我们提出的TOD-DA的优势和有效性。
translated by 谷歌翻译